El científico británico advierte que la inteligencia artificial avanza más rápido de lo previsto y pide que los gobiernos exijan pruebas de seguridad antes de permitir el lanzamiento de chatbots.

Geoffrey Hinton, reconocido como uno de los pioneros de la inteligencia artificial (IA), pasó de impulsar el desarrollo de esta tecnología a advertir sobre sus posibles consecuencias. En una entrevista con EL PAÍS, el científico expresó su preocupación por la velocidad de los avances y defendió la necesidad de establecer controles gubernamentales.

Hinton, de 78 años, dejó su puesto como vicepresidente de Google en 2023 para hablar con mayor libertad sobre los riesgos de la IA. Su trabajo contribuyó al desarrollo de las redes neuronales, sistemas matemáticos capaces de aprender a partir de ejemplos y que hoy forman parte de numerosas herramientas de inteligencia artificial.

Su trayectoria le ha valido reconocimientos como el Premio Turing y el Nobel de Física, además del sobrenombre de “padrino de la IA”.

La inteligencia artificial avanza más rápido de lo esperado

El científico aseguró que la tecnología evolucionó mucho más rápido de lo que él mismo anticipaba. Como ejemplo, mencionó la capacidad de algunos sistemas para participar en ciberataques y el desarrollo de agentes de IA capaces de comunicarse entre sí.

Aunque no comparte las predicciones más extremas sobre una posible desaparición de la humanidad, considera que existe una probabilidad significativa de que los avances generen consecuencias graves. Por ello, sostiene que los riesgos deben tomarse en serio.

Hinton también advirtió que la inteligencia artificial podría reemplazar algunas tareas periodísticas si llega a realizarlas mejor que las personas. Sin embargo, reconoció que las audiencias podrían seguir prefiriendo a profesionales humanos en determinados formatos, como la televisión.

Pide regulación antes de lanzar chatbots

Para Hinton, las empresas tecnológicas no deberían ser las únicas responsables de evaluar la seguridad de sus productos. Comparó la situación con las regulaciones aplicadas a las industrias farmacéutica y energética, donde existen controles para reducir riesgos.

Su propuesta consiste en crear un marco en el que las compañías demuestren ante una agencia gubernamental que sus chatbots son seguros antes de lanzarlos al público.

También rechazó el argumento de que una regulación más estricta necesariamente beneficiaría a China en la competencia tecnológica. A su juicio, adoptar medidas de seguridad no impide que una empresa sea competitiva.

Cuestiona la influencia de los grandes empresarios tecnológicos

El científico consideró necesario incorporar a filósofos, especialistas en ciencias sociales y humanistas a las decisiones sobre el uso de la IA. En su opinión, el futuro de esta tecnología no debería depender exclusivamente de ingenieros y empresarios.

Además, criticó la concentración de poder económico y político en figuras destacadas de Silicon Valley, entre ellas Elon Musk, Jeff Bezos, Sam Altman y Mark Zuckerberg.

Hinton también expresó preocupación por el autoritarismo y la influencia de grandes fortunas en la política estadounidense. Sus declaraciones refuerzan su llamado a establecer límites y mecanismos de supervisión mientras la inteligencia artificial continúa transformando la sociedad.

Metadescripción: Geoffrey Hinton alerta sobre los riesgos de la inteligencia artificial, pide regulación gubernamental y exige pruebas de seguridad para los chatbots.